Водещи технологични компании подписват ангажименти за безопасност на ИИ

Водещи компании за изкуствен интелект подписаха нов кръг от доброволни задължения за сигурност на ИИ, оповестиха държавните управления на Обединеното кралство и Южна Корея.

Компаниите, които включват софтуерните колоси Amazon, Гугъл, Meta и Microsoft, както и OpenAI, управителен от Сам Алтман, xAI на Илон Мъск и китайския разработчик Zhipu AI, ще разгласяват рамки, очертаващи по какъв начин ще мерят рисковете от своите „ гранични “ модели на AI.

Групите се ангажираха „ изобщо да не създават или внедряват модел “, в случай че сериозните опасности не могат да бъдат смекчени, споделиха двете държавни управления преди откриването на световната среща на върха за ИИ в Сеул във вторник.

Съобщението се основава на по този начин наречената Декларация от Блечли, направена на встъпителната среща на високо ниво за сигурността на ИИ, проведена от министър-председателя на Обединеното кралство Риши Сунак през ноември.

„ Тези задължения подсигуряват, че водещите международни компании за ИИ ще обезпечат бистрота и отчетност на техните проекти за създаване на безвреден ИИ “, сподели Сунак в изказване. „ Това основава казус за световни стандарти за сигурност на AI, които ще отключат преимуществата на тази трансформираща технология. “

Според официално съобщение, очертаващо съглашението, фирмите за AI ще „ оценят рисковете, подбудени от техните гранични модели или системи ... в това число преди внедряването на този модел или система и, в случай че е подходящо, преди и по време на образование “. ще се смятат за непоносими “ и по какъв начин ще бъдат приложени такива смекчаващи ограничения.

„ Полето на сигурността на изкуствения разсъдък се развива бързо и ние сме изключително щастливи да подкрепим акцента на уговорките върху методите за рационализиране дружно с науката “, сподели Анна Маканджу, вицепрезидент по световните въпроси в OpenAI.

„ Оставаме ангажирани да си сътрудничим с други проучвателен лаборатории, компании и държавни управления, с цел да подсигуряваме, че ИИ е безвреден и е от изгода за цялото човечество. “

Съобщението от вторник отразява „ доброволните задължения “, поети в Белия дом през юли предходната година от Amazon, Anthropic, Гугъл, Inflection AI, Meta, Microsoft и OpenAI „ за подкрепяне на прекосяването към безвредно, несъмнено и транспарантно развиване на AI технологията “.

Остава обаче неразбираемо по какъв начин фирмите могат да бъдат подведени под отговорност, в случай че не изпълнят уговорките си.

В официалното съобщение от вторник се споделя, че 16-те компании ще „ обезпечат обществена бистрота “ по отношение на осъществяването на своите обещания, „ с изключение на доколкото това ще усили риска или ще разкрие сензитивна комерсиална информация до степен, непропорционална на публичната изгода “.

Говорейки в Сеул преди виртуална среща на водачите във вторник вечерта, министърът на науката на Обединеното кралство Мишел Донелан сподели пред Financial Times, че доброволните съглашения, подписани в Bletchley, са работили.

„ Следователно, ние имаме вяра, че тези съглашения още веднъж ще продължат да носят дивиденти “, сподели Донелан.

„ Но тук не става въпрос единствено за това какво повече могат да създадат фирмите, а и какво повече могат да създадат страните “, добави тя. Донелан удостовери, че китайското държавно управление ще бъде показано на срещите, които ще се проведат на втория ден от срещата на върха в сряда.

Дан Хендрикс, консултант по сигурността на xAI, сподели, че доброволните задължения ще оказват помощ „ да се сложи основата за съответно вътрешно контролиране “.

Но Донелан повтори позицията на Обединеното кралство, че е прекомерно рано да се обмисля законодателство за налагане на сигурността на ИИ.

“ Трябва да се оправяме по-добре с рисковете “, сподели тя, отбелязвайки, че държавното управление на Обединеното кралство ще предложи до 8,5 милиона английски лири безплатни средства за изследване на опасности, свързани с изкуствен интелект, като дълбоки фалшификации и хакерски атаки.

Тя добави че в случай че държавното управление на Обединеното кралство беше инициирало законодателство по въпроса предходната година, „ досега, в който излезе, евентуално щеше да е остаряло “.